![[アップデート]Amazon Q in ConnectにAIガードレールが追加されました](https://images.ctfassets.net/ct0aopd36mqt/3nibOl2sZ0LKJueI0FHFi5/14de7bd294f7916a28b789105c60d450/reinvent-2024-newservice-jp.jpg)
[アップデート]Amazon Q in ConnectにAIガードレールが追加されました
2024.12.20こんにちは。
繁松です。
はじめに
本記事では、Amazon Q in Connectに新しく追加されたAIガードレール機能について解説します。
ガードレールを設定することで不適切な回答をフィルタリングしたり、特定単語の利用制限、会話の関連性制御などを適切に管理することができます。
対応リージョンは以下です。
- 米国東部 (バージニア北部)
- 米国西部 (オレゴン)
- アジアパシフィック (ソウル)
- アジアパシフィック (シンガポール)
- アジアパシフィック (シドニー)
- アジアパシフィック (東京)
- カナダ (中部)
- 欧州 (フランクフルト)
- 欧州 (ロンドン)
Amazon Q in Connectの日本語対応が発表されました。
ガードレールによって表示されるメッセージの例です。
「Which stocks should i invest in?」
という質問に対しガードレールに設定されている
「Blocked input text by guardrail」と表示されています。
ガードレールはAWS CLIから設定できます。
AWSドキュメントで用意されているポリシー例
- 望ましくないトピックをブロック
- 有害で不適切なコンテンツをフィルタリング
- 有害で不適切な単語をフィルタリング
- 会話の関連性や文脈の適切性を制御
- 個人識別情報などの機密情報
やってみた
実際に設定して動作確認を行います。
今回は特定の言語に対するガードレールを検証してみます。
Amazon Q in Connectの設定
洲崎さんのブログを参考にAmazon Q in Connectの設定を行います。
ガードレールの作成
Amazon Q in Connect アシスタントのIDを確認します。
以下のCLIコマンドで確認します。
aws qconnect list-assistants
結果の「assistantId」を確認します。
以下のCLIコマンドを実行しガードレールを作成します。
今回禁止するワードには[shigematsu]と設定して作成しました。
作成後に「aiGuardrailId」が出力されるのでメモします。
aws qconnect create-ai-guardrail \
--assistant-id <確認したアシスタントID> \
--blocked-input-messaging "Blocked input text by guardrail" \
--blocked-outputs-messaging "Blocked output text by guardrail" \
--word-policy-config wordsConfig=[{text=<禁止するワード>}] \
--name <ガードレール名> \
--visibility-status PUBLISHED
ガードレールバージョンを作成します。
aws qconnect create-ai-guardrail-version \
--assistant-id <アシスタントID> \
--ai-guardrail-id <ガードレールID>
エージェントを作成します。
作成後に「aiAgentId」が出力されるのでメモします。
aws qconnect create-ai-agent \
--assistant-id <アシスタントID> \
--configuration manualSearchAIAgentConfiguration={answerGenerationAIGuardrailId="<ガードレールID>:1"} \
--name <エージェント名> \
--type MANUAL_SEARCH \
--visibility-status PUBLISHED
エージェントバージョンを作成します。
aws qconnect create-ai-agent-version \
--assistant-id <アシスタントID> \
--ai-agent-id <エージェントID>
アシスタントに紐づくエージェントを更新します。
aws qconnect update-assistant-ai-agent \
--assistant-id <アシスタントID> \
--configuration '{"aiAgentId":"<エージェントID>:1"}' \
--ai-agent-type MANUAL_SEARCH
動作確認
コンテンツに以下の内容を登録していました。
Q: shigematsu？
A: shigematsu=kodai,kumamoto
[shigematsu]と入力するとガードレールに設定した「Blocked input text by guardrail」が出力されています。
[kodai?]と入力するとガードレール側で[shigematsu]を出力しようとしたのか「Blocked output text by guardrail」が出力されました。
さいごに
Amazon Q in Connectの設定はCLIからの操作がメインになっているので、今後GUI操作のアップデートが期待されます。
ガードレールを入れることでAmazon Q in Connectでオペレーターに誤って発言させたくないことの予防にもつながると思います。
本日、日本語対応のアップデートも発表されていたので今後活用できるケースが増えそうです。
